“过去很多年里，中国公司习惯了别人做技术创新，我们拿过来做应用变现，但这并非是一种理所当然。这一波浪潮里，我们的出发点就不是趁机赚一笔，而是走到技术的前沿，去推动整个生态发展。”

deepseek moe 文锋 2025-02-07 15:59  17

近年来，人工智能模型的性能越来越高，但规模也越来越大。神经网络权重占用的内存量一直在稳步增长，有些模型的参数多达 5000 亿甚至数万亿。在传统计算机架构上进行推理时，每次移动这些权重进行计算都会耗费时间和能源。模拟内存计算将内存和计算结合在一起，消除了这一瓶

芯片 gpu moe 2025-02-07 12:20  17

Deepseek在全球的爆火证明了通过蒸馏等手段，小模型仍能展现强大的推理能力，未来端侧模型应用的潜力巨大。1月31日，英伟达表示DeepSeek-R1模型现已作为英伟达NIM微服务预览版在build.nvidia.com上发布，DeepSeek的成功不仅推动

模型 deepseek moe 2025-02-07 10:37  24

有人说它是“另一个 Mistral”，也有人调侃它“还没学会走路，就要挑战 OpenAI”。 更有意思的是，规模不大的DeepSeek 官方特别具有的“神秘感”——低调、不回应、不解释，甚至没有一篇正式的技术博客，让它的一切更添悬念。

deepseek moe 林芳正 2025-02-05 11:22  21

凭借低训练成本、高性能以及开源开放的颠覆性策略，DeepSeek就像这个春日里的一声惊雷瞬间引爆了大模型行业，它的出现不仅打破了ChatGPT的滤镜，更破碎了大模型行业高门槛和技术垄断的神话。面对DeepSeek冲击，OpenAI迅速推出轻量级推理模型o3-m

模型 高光 moe 2025-02-05 08:58  28

10天前，DeepSeek新模型的发布，引起美国AI圈和金融圈一度恐慌，搞得美股大跌，扎克伯格呼吁美国加紧封锁中国AI技术，不少黑客也拼命攻击，使其最近注册都比较费事。

模型 moe deepseekv3 2025-01-31 18:50  22

DeepSeek，全称杭州深度求索人工智能基础技术研究有限公司，2023 年由幻方量化创立 ，自诞生起就带着鲜明的创新印记。2024 年 1 月发布首个大模型 DeepSeek LLM，开启了它在大模型领域的征程，同年 5 月开源第二代 MoE 大模型 Dee

deepseek moe 剖析deepseek 2025-02-02 22:50  21

在科技飞速发展的当下，人工智能（AI）已然成为推动各领域变革的核心力量。从最初简单的算法模型，到如今能够模拟人类思维、进行复杂任务处理的智能系统，AI 的每一次突破都吸引着全球目光。在这个充满创新与竞争的 AI 领域，ChatGPT 与 DeepSeek 无疑

chatgpt deepseek moe 2025-02-03 04:18  18

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqiz

deepseek moe deepseekr1 2025-02-02 23:49  19

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqiz

deepseek moe deepseekr1 2025-02-02 15:51  16

10天前，大家都准备回家过年了，结果来自浙江的一家小公司DeepSeek(深度求索)火了，它发布的V3模型，震惊了美国AI圈和金融圈，还上了新闻联播，一夜之间和华为、阿里比肩齐名了，搞的扎克伯格一度呼吁美国加紧封锁中国AI技术。

llama deepseek moe 2025-01-30 20:40  21

1) DeepSeek 不是套壳不是蒸馏美国的大模型。虽然中国有些大模型是套壳和蒸馏的，但

deepseek moe cot 2025-01-29 23:24  18

在当今科技飞速发展的时代，人工智能无疑是最耀眼的领域之一，而中国的AI力量正以惊人的态势崛起，尤其是DeepSeek的出现，宛如一颗重磅炸弹，在全球AI领域掀起了巨大波澜。

deepseek moe 辛顿 2025-01-27 02:43  19

近期，DeepSeek火爆全球，媒体报道甚多。今日早间，我们问DeepSeek对你分析最详细的文章是哪一篇，DeepSeek指出这一篇，所以我们把它翻译出来，以飨读者。

翻译 deepseek moe 2025-01-27 17:02  22

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqiz

模型 moe moe模型 2025-01-24 14:52  22

MoE架构，仅用较小激活参数，就能达到世界一流模型性能，性能杠杆达到7倍数据生产体系高度自主，不使用任何其他模型数据多模态能力全面提升

模型 moe 豆包 2025-01-22 22:04  23

我们推出了DeepSeek-V3，这是一款强大的混合专家（Mixture-of-Experts, MoE）语言模型，总参数量达到6710亿，每个token激活的参数量为370亿。为了实现高效的推理和成本效益的训练，DeepSeek-V3采用了多头潜在注意力机制

moe mla deepseekv3 2025-01-20 10:42  18

在当前人工智能发展的主要议题中，可扩展且高效的AI模型占据了重要的位置。这不仅涉及到模型的性能，也涉及到如何在有限的计算资源下完成高效的运算。我国科技企业在过去的几年里，始终坚持着开发出能够解决更为复杂问题并处理更大数据量的模型的目标，而这一切并不需要依赖过多

训练 模型 moe 2025-01-17 18:43  17

预训练语言模型通常在其参数中编码大量信息，并且随着规模的增加，它们可以更准确地回忆和使用这些信息。对于主要将信息编码为线性矩阵变换权重的密集深度神经网络来说，参数大小的扩展直接与计算和能量需求的增加相关。语言模型需要学习的一个重要信息子集是简单关联。虽然前馈网

模型 meta moe 2025-01-04 21:43  21

幻方量化旗下的DeepSeek公司宣布发布全新系列模型DeepSeek-V3首个版本，并同步开源。他们仅用2048块H800显卡、耗时两个月，就训出了一个6710亿参数的DeepSeek-V3。相较于Meta训练参数量4050亿的Llama 3，用了16,38

芯片 moe mla 2025-01-03 10:03  21